Китай е свързан с хакерски „атаки“, задвижвани от изкуствен интелект, казва Anthropic

Екип от откриватели откри това, което съгласно тях е първото докладвано потребление на изкуствен интелект за ориентиране на хакерска акция по значително автоматизиран метод.

Компанията за изкуствен интелект Anthropic съобщи тази седмица, че е прекъснала кибероперация, която нейните откриватели свързват с китайското държавно управление. Операцията включваше потреблението на система с изкуствен интелект за ориентиране на хакерските акции, което откривателите нарекоха тревожно развиване, което може доста да разшири обсега на оборудваните с AI хакери.

Въпреки че опасенията по отношение на потреблението на AI за ръководство на кибер интервенции не са нови, това, което е обезпокоително за новата интервенция, е степента, до която AI съумя да автоматизира част от работата, откривателите споделиха.

„ Въпреки че прогнозирахме, че тези благоприятни условия ще продължат да се развиват, това, което ни направи усещане, е какъв брой бързо са го създали в мащаб “, пишат те в своя отчет.

Операцията беше ориентирана към софтуерни компании, финансови институции, химически компании и държавни организации. Изследователите пишат, че хакерите са атакували „ почти тридесет световни цели и са съумели в дребен брой случаи “. Anthropic откри интервенцията през септември и предприе стъпки, с цел да я спре и да уведоми засегнатите страни.

Anthropic означи, че до момента в който AI системите се употребяват от ден на ден в разнообразни настройки за работа и свободно време, те също могат да бъдат въоръжени от хакерски групи, работещи за непознати съперници. Anthropic, производител на generative AI chatbot Claude, е една от многото софтуерни компании, предлагащи AI „ сътрудници “, които надвишават опциите на chatbot за достъп до компютърни принадлежности и предприемане на дейности от името на човек.

Получавайте изключителни национални вести

„ Агентите са скъпи за ежедневната работа и продуктивността – само че в неверни ръце те могат доста да усилят жизнеспособността на широкомащабни хакерски атаки “, заключават откривателите. „ Ефективността на тези офанзиви евентуално единствено ще нараства. “

Говорител на китайското посолство във Вашингтон не върна незабавно известие с искане за коментар по отчета.

Microsoft предизвести по-рано тази година, че задграничните съперници от ден на ден възприемат AI, с цел да създадат своите киберкампании по-ефективни и по-малко трудоемки. Ръководителят на панела за сигурност на OpenAI, който има пълномощията да спре създаването на AI на основателя на ChatGPT, неотдавна сподели пред Асошиейтед прес, че внимава за нови AI системи, които дават на злонамерените хакери „ доста по-високи благоприятни условия “.

Противниците на Америка, както и незаконни банди и хакерски компании, са употребявали капацитета на AI, употребявайки го за автоматизиране и възстановяване на хакерски атаки, за разпространяване възпалителна дезинформация и за навлизане в чувствителни системи. AI може да превежда зле дефинирани фишинг имейли на британски език, да вземем за пример, както и да генерира цифрови клонинги на висши държавни чиновници.

Anthropic сподели, че хакерите са съумели да манипулират Клод, употребявайки техники за „ джейлбрейк “, които включват подмамване на AI система, с цел да заобиколи своите защитни средства против нездравословно държание, в този случай като настояват, че са чиновници на законна киберсигурност компания.

„ Това сочи към огромно предизвикателство с AI моделите и не се лимитира до Клод, което е, че моделите би трябвало да могат да разграничават какво в действителност се случва с етиката на дадена обстановка и типовете ролеви сюжети, които хакерите и други може да желаят да измислят “, сподели Джон Скот-Рейлтън, старши откривател в Citizen Lab.

Използването на AI за автоматизиране или ориентиране Кибератаките също ще се харесат на по-малки хакерски групи и хакери-вълци, които биха могли да употребяват AI, с цел да разширят мащаба на своите офанзиви, съгласно Адам Арелано, основен механически шеф в Harness, софтуерна компания, която употребява AI, с цел да помогне на клиентите да автоматизират създаването на програмен продукт.

„ Скоростта и автоматизацията, обезпечени от AI, са малко плашещи “, сподели Арелано. „ Вместо човек с добре усъвършенствани умения, който се пробва да хакне в закалени системи, AI форсира тези процеси и по-последователно преодолява трудностите. “

Програмите за AI също ще играят все по-важна роля в отбраната против тези типове офанзиви, сподели Арелано, демонстрирайки по какъв начин AI и автоматизацията, която разрешава, ще бъдат от изгода и за двете страни.

Реакцията на разкриването на Anthropic беше смесена, с някои виждайки го като маркетингов трик за метода на Anthropic за отбрана на киберсигурността и други, които приветстваха неговия сигнал за пробуждане.

„ Това ще ни унищожи – по-рано, в сравнение с си мислим – в случай че на следващия ден не превърнем AI регулирането в народен приоритет “, написа американският сенатор Крис Мърфи, демократ от Кънектикът, в обществените медии.

Това докара до рецензии от страна на Meta основен академик AI Yann LeCun, бранител на AI системите с отворен код на компанията майка на Фейсбук, които, за разлика от тези на Anthropic, вършат своите основни съставни елементи обществено налични по метод, който някои бранители на сигурността на AI считат за прекомерно опасен.

„ Вие сте изиграни от хора, които желаят регулаторно хващане “, написа LeCun в отговор на Murphy. „ Те плашат всички със съмнителни изследвания, тъй че моделите с отворен код да бъдат контролирани и да не съществуват. “